약 2,000달러를 주문한 전기자전거가 배송 사고로 사라진 한 소비자가, 오직 AI 챗봇만 연결해주는 기업들의 고객센터 시스템으로 인해 수개월간 고통받은 사례를 다룹니다. 이는 기업들이 비용 절감을 위해 도입한 AI 고객센터가 소비자의 문제 해결을 오히려 방해하는 '슬럿지(Sludge)' 전략으로 변질되었음을 보여줍니다.
최근 글로벌 기업들이 무분별한 AI 도입으로 인해 감당하기 힘든 '토큰 비용' 폭탄을 맞고 있습니다. 특히 전문 개발자보다 PDF 변환 같은 단순 작업을 하는 비개발 직군이 토큰을 크게 소모하는 것으로 나타났습니다. 이에 우버 등 주요 기업들이 AI 도구 사용량을 제한하거나 토큰 예산을 통제하는 등 비용 절감에 나서고 있습니다.
우버가 코딩 에이전트 비용 과다를 막기 위해 직원 1인당 AI 코딩 도구(Cursor, Claude Code 등)별 월 사용 한도를 1,500달러로 제한했습니다. 이는 엔지니어 연봉의 약 11%에 해당하는 실질적 가치를 가지며, 기업의 AI 예산 관리 합리적 사례로 평가받습니다.
노스 애틀랜틱 항공이 도입한 AI 고객 상담 시스템으로 인해 실제 고객들의 피해가 속출하고 있습니다. 고객 연락처를 숨긴 채 AI 봇에만 의존하면서, 당황한 고객들이 검색 포털에서 사기꾼에게 연락하게 되는 빈틈이 생겼습니다. 기업의 비용 절감을 위한 AI 도입이 고객 경험과 신뢰를 어떻게 훼손할 수 있는지 보여주는 핵심 사례입니다.
기업 환경에서 AI가 본격적으로 도입되며 모델 성능보다 데이터의 질과 비즈니스 맥락(Context)이 핵심 과제로 떠올랐습니다. 단순히 데이터를 집적하는 전통적 방식은 맥락을 상실하게 만들어 AI가 엉뚱한 의사결정을 내리게 할 위험이 있습니다. 이를 해결하기 위해서는 데이터 애플리케이션과 클라우드 전반을 연결하며 비즈니스 의미를 보존하는 강력한 '데이터 패브릭(Data Fabric)' 구축이 필수적입니다.